Становище: Ето какво е изложено на риск, ако Big Tech не се справи с измамното AI съдържание

Бележка на редактора: Тимъти Кар е старши шеф в, непартийна организация с нестопанска цел, която се застъпва за по-справедлива и демократична медийна система. Мненията, изразени тук, са негови. Прочетете повече в CNN.

Миналия петък 20 софтуерни платформи се споразумяха да етикетират по-добре и да ограничат генерираната от AI дезинформация, която се популяризира онлайн, с цел да заблуди гласоподавателите по време на натоварената изборна година. Те дадоха обещание да обезпечат „ бързи и пропорционални отговори “ на лъжливо AI наличие по отношение на изборите, в това число шерване на повече информация за „ методите, по които жителите могат да се защитят от манипулиране или машинация “.

Този доброволен ангажимент, подписан от Гугъл, Microsoft, Meta, OpenAI, TikTok и X (бивш Twitter), апропо, не не разрешава непосредствено потреблението на по този начин наречените политически „ deepfakes “ — подправени видео или аудио изображения — на кандидати, водачи и други авторитетни публични персони. Нито пък платформите се съгласяват да възстановят забележителните екипи, които имаха, с цел да защитят честността на изборите през 2020 г. Дори на тези предходни равнища, тези екипи се бореха да спрат разпространението на дезинформация относно резултатите от изборите, спомагайки за подклаждането на насилие в US Capitol Building, до момента в който Конгресът се готви да удостовери успеха на президента Джо Байдън.

В отговор платформите се ангажираха да слагат високи упования през 2024 година за това по какъв начин „ ще ръководят рисковете, произлизащи от лъжливо наличие на избори с изкуствен интелект “, според взаимното съглашение. И действията им ще се управляват от няколко принципа, включително превенция, разкриване, оценка и социална информираност.

Ако платформите желаят да предотвратят повтаряне на 2020 година, те би трябвало да създадат доста повече в този момент, когато технологията направи допустимо измамването на гласоподавателите с тези лъжливо правдоподобни факсимилета. И те би трябвало да съпоставят обещанията си да се оправят по-добре през 2024 година с фактически използване и развенчаване, което може да бъде документирано и споделено с обществеността, нещо, което не са съумели да създадат с никаква поредност в предишното.

През декември Free Press откри, че сред ноември 2022 година и ноември 2023 година Meta, X и YouTube отстраниха общо 17 сериозни политики в своите платформи. Това включва анулация на политиките за дезинформация за изборите, предопределени да лимитират наличието на „ Голямата неистина “ за вота през 2020 година През почти същия интервал от време Гугъл, Meta и X редуцираха общо към 40 000 чиновници, като бяха настъпили обилни съкращения в категориите за модериране на наличие и доверие и сигурност. По това време платформите описаха съкращенията на личния състав като нужни, с цел да приведат фирмите си в сходство с „ друга икономическа действителност “ (Google) или тъй като по-ранните финансови разноски „ не се развиха [както] … се очакваше “ (Meta).

Това оттегляне предизвиква по-малко отчетност измежду известни платформи, защото софтуерните компании обръщат тил на години доказателства, сочещи прекомерната роля, която играят в оформянето на публичния дискурс, който визира гражданската ангажираност и демокрацията. Тяхната роля като проводник на дезинформация евентуално ще се усили, защото усъвършенстваните AI принадлежности, нужни за основаване на дълбоки имитации на политици, станат по-широко налични за потребителите на обществените медии. Без платформите, които демонстративно ползват тези и даже по-строги правила против разпространяването на дезинформация на гласоподавателите, ще се сблъскаме с повече високотехнологични старания за кражба на избори по целия свят.

Вече се случва. Миналата година по време на конкуренцията за кмет на Чикаго, подправен аудиозапис, предопределен да имитира претендента Пол Валас, се разпространяваше по X. Аудиото неправилно твърди, че Валас поддържа полицейското принуждение в града.

В края на 2023 г. Free Press призова компании като Гугъл, Meta и X да вкарат обстоен набор от защитни ограничения против необузданата корист с принадлежности за неестествен интелект по време на изборната 2024 година Те включват реинвестиране в действителни хора, изключително тези, които са нужни за отбрана на гласоподавателите, и модериране на наличие. Те също по този начин трябва да станат по-прозрачни посредством редовно споделяне на съществени индикатори с откриватели, законодатели и публицисти.

В същото време ние призовахме законодателите да открият ясни правила против злоупотреби с AI технология, изключително в светлината на възходящото потребление на deepfakes както в Съединените щати, по този начин и в чужбина. Това включва приемането на закони, които изискват от софтуерните платформи да разгласяват постоянни отчети за бистрота по отношение на своите принадлежности за инспекция и модериране на AI и да разкриват процеса си на взимане на решения, когато отстраняват съмнителни политически реклами.

Вземете нашия безвъзмезден седмичен бюлетин

Имаше доста интензивност по тематиката в Конгреса, в това число многочислени брифинги, конгреси и сесии за слушане, с доста малко на практика резултати. Сенатори и представители внесоха десетки законопроекти — някои положителни, други лоши — само че нито един не стигна до гласоподаване. Междувременно Федералната комерсиална комисия се намесва, с цел да запълни регулаторната празнина, като предходната седмица предложи   ново предписание, което би направило нелегално потреблението на AI за показване на който и да било, включително избрани чиновници. Агенцията може да гласоподава ново предписание още напролет, откакто предложения и прегледа публичните мнения по въпроса.

С необятното потребление на AI онлайн пейзажът се промени фрапантно от 2020 година насам. Но фактът остава: демокрацията не може да оцелее без надеждни източници на точни вести и информация. Както научихме след гласуването през 2020 година, има рискови последици от действителния свят, когато платформените компании се отдръпват от уговорките си да изкореняват дезинформацията.

Доброволните обещания би трябвало да са освен това от PR упражнение. Освен в случай че фирмите не възстановят вечно екипите за честност на изборите и фактически не наложат правила против необузданата корист с принадлежности за изкуствен интелект, демокрацията в международен мащаб може да виси на косъм.